OpenAI казва, че бордът може да отмени решенията на главния изпълнителен директор Сам Алтман относно пускането на нов AI
Бордът на шефовете на OpenAI може да анулира основния изпълнителен шеф Сам Алтман по отношение на стартирането на нов модел с изкуствен интелект – последният знак, че компанията дава приоритет на намаляването на риска вследствие на това от скорошната драма към уволнението му.
Компанията от Силициевата котловина разгласява нов набор от насоки в понеделник, в които в детайли разказва по какъв начин възнамерява да минимизира евентуалните рискове от новоиздадените езикови модели на AI.
„ Проучването на граничните опасности от ИИ е надалеч от това, което е допустимо и където би трябвало да бъдем “, сподели компанията в изказване, озаглавено „ Подготовка “.
OpenAI сподели, че новата му „ рамка за подготвеност “ ще включва процеси, които „ наблюдават, правят оценка, предвиждат и пазят против пагубни опасности, подбудени от все по-мощни модели “.
Екипът за подготвеност ще бъде претрупан със задачата да реши рисковете, които новаторският AI съставлява в региона на киберсигурността, както и химическите, нуклеарните и биологичните закани.
Александър Мадри, професор от Масачузетския софтуерен институт, който оглавява групата за подготвеност, сподели пред Bloomberg News, че неговият екип ще основава месечни доклади, които ще се изпращат на вътрешна консултативна група по сигурността.
Консултативната група ще прегледа констатациите на екипа на Мадри и по-късно ще изпрати личните си рекомендации до Алтман и борда.
Миналия месец 38-годишният Алтман беше уволнен от борда на шефовете на компанията – единствено с цел да бъде възобновен като основен изпълнителен шеф дни по-късно в лицето на необятно публикуван протест измежду чиновниците.
Преди да бъде уволнен, Алтман е бил в несъгласие с борда по отношение на бързите темпове, с които OpenAI комерсиализира продуктите си и ги пуска на пазара, основният измежду които е ChatGPT.
Съобщава се, че членовете на борда са се загрижили дали Алтман е бил задоволително деликатен към рисковете, подбудени от ИИ, в това число евентуалната опасност за работните места, изпълнявани от хора, както и вероятното разпространяване на дезинформация.
Старши чиновници в OpenAI се оплакаха на някогашния ръб на шефовете на компанията, че Алтман е „ психически измъчван “.
Олтман също беше упрекнат в „ насъскване на чиновниците един против различен по вреден метод “, оповестява The Washington Post, цитирайки двама души, осведомени с мисленето на борда.
Освен недоволствата на личния състав, източниците споделиха, че бордът на OpenAI счита, че Алтман ги е излъгал като част от напъните да в профил Хелън Тонер, член на борда и учен, фокусиран върху сигурността на ИИ.
Съобщава се, че Алтман се е разгневил на Тонер, откакто тя е съдействала за публикация, която подлага на критика OpenAI за изтласкването на ChatGPT, като твърди, че този ход форсира конкуренцията в ИИ за сметка на сигурността.
Потенциалните рискове, подбудени от AI, са тематика за безпокойствие измежду наблюдаващите от Силиконовата котловина и софтуерните бизнесмени.
По-рано тази година Илон Мъск, съосновател на OpenAI, който напусна компанията, откакто загуби борба за власт, и десетки други софтуерни ръководители подписаха отворено писмо, настояващо за пауза в проучванията и развиването на AI заради опасения по отношение на „ дълбоки опасности за обществото и човечеството. “
